RAG expliqué | Utilisation de la génération augmentée par récupération pour créer une recherche sémantique

Les grands modèles de langage (LLM) ont captivé l'imagination du public au cours des dernières années, depuis qu'OpenAI a lancé ChatGPT pour la première fois dans le monde fin 2022. Après la fascination initiale du public, les entreprises ont emboîté le pas pour trouver des cas d'utilisation dans lesquels elles pourraient potentiellement déployer LLM.

Avec de plus en plus de LLM publiés en open source et déployables en tant que modèles privés sur site, il est devenu possible pour les organisations de former, d'affiner ou de compléter des modèles avec des données privées. RAG (génération augmentée par récupération) est l'une de ces techniques de personnalisation d'un LLM, constituant une approche viable permettant aux entreprises d'utiliser des LLM sans les coûts élevés et les compétences spécialisées impliquées dans la création d'un modèle personnalisé à partir de zéro.

Qu'est-ce que la génération augmentée par récupération ?

RAG (génération augmentée par récupération) est une technique qui améliore la précision d'une sortie LLM (grand modèle de langage) avec des données pré-extraites provenant de sources externes. Avec RAG, le modèle référence une base de données distincte de ses données d'entraînement en temps réel avant de générer une réponse.

RAG étend les capacités générales des LLM dans un domaine spécifique sans qu'il soit nécessaire de former un modèle personnalisé à partir de zéro. Cette approche permet aux LLM à usage général de fournir des réponses plus utiles, pertinentes et précises dans des contextes hautement spécialisés ou privés, tels que la base de connaissances interne d'une organisation. Pour la plupart des cas d'utilisation, RAG fournit un résultat similaire à la formation de modèles personnalisés, mais à une fraction du coût et des ressources requis.

Comment fonctionne la génération augmentée par récupération ?

RAG implique l'utilisation de LLM à usage général tels quels, sans formation particulière ni réglage fin, pour fournir des réponses basées sur des connaissances spécifiques à un domaine. Ceci est réalisé à l’aide d’un processus en deux parties.

Premièrement, les données sont fragmentées et transformées en intégrations, qui sont des représentations vectorielles des données. Ces intégrations sont ensuite indexées dans une base de données vectorielles à l'aide d'un algorithme d'IA appelé modèles d'intégration.

Une fois les données re...
[Courte citation de 8% de l'article original]